Thời Đông Hán lập ra các chức quan gồm 2 Thiên thạch tào quản lý hình ngục, 3 Công tào quản lý xử án[1]. Thời Ngụy-Tấn có các cơ quan là Bỉ bộ, Đô quan và Tào quân quản lý hình ngục[1]. Thời kỳ Nam Bắc triều, tại Nam triều qua các triều đại như Lưu Tống, Nam Tề, Lương, Trần và tại Bắc triều như Bắc Ngụy, Đông Ngụy, Tây Ngụy, Bắc Tề, Bắc Chu đều có đặt ra chức danh Đô quan Thượng thư. Đến thời nhà Tùy, Tùy Văn đế lập ra chế độ lục bộ. Ban đầu vẫn giữ đô quan Thượng thư như của Bắc Tề để quản lý Đô quan. Đến năm Khai Hoàng thứ ba (583) đổi Đô quan thành Hình bộ và Đô quan thượng thư thành Hình bộ thượng thư, là chức quan đứng đầu của một bộ trong lục bộ. Chức quan phó giúp việc được Tùy Dạng đế đặt là Thị lang[1].

Sau này, từ thời nhà Đường tới thời nhà Nguyên thì cơ cấu là tương tự với Hình bộ, chủ quản công tác luật pháp (bao gồm cả thẩm định, tu sửa, hiệu đính), hình ngục, Đại lý tự có chức năng của tối cao pháp viện (tòa án tối cao). Thời nhà Nguyên không có Đại lý tự[1]. Đến thời Minh-Thanh, Hình bộ là cơ quan quản lý công việc hình pháp trong toàn quốc, cùng Đô sát viện quản lý công tác giám sát xét hỏi, Đại lý tự quản lý xem xét các vụ án quan trọng hay án lớn và công tác phúc thẩm, tạo ra cái gọi là "tam pháp ti chế"[1] (chế độ ba cơ quan giám sát thực thi pháp luật).